Ядрените договори предлагат план за това как да се справяме с ИИ

Авторът е основен изпълнителен шеф и съосновател на сателитната компания Planet

Изкуственият разсъдък е необикновен инструмент, който е в положение да помогне за решаването на най-сложните провокации на човечеството. Компаниите, разработващи технологията, гледат на напредъка като на съревнование. Така вършат и страните. И въпреки всичко доста водещи фигури, в това число бащите-основатели на генеративния ИИ, също намерено признават дълбоките рискове, които той крие. 

Тези рискове не се лимитират до загуба на работа или дезинформация — и двете са задоволително провокации. Съществува и екзистенциалната опасност, подбудена от лекотата на създаване на биооръжия и риска, че с напредването на ИИ човечеството ще загуби изцяло надзор над него. Казано просто, мъчно е да си представим по какъв начин можем да имаме някаква сигурност, че ще можем да управляваме нещо, което по формулировка е по-умно от нас. Никога до момента не сме решавали сходно предизвикателство.

Въпреки че е имало доста полемики за тази заплаха, те до момента са извънредно несъответстващи: към момента не са въведени интернационалните правила или даже сериозен резистентен механически и юридически развой. 

Аз съм огромен бранител на технологиите като цяло и в частност на ИИ. Като основен изпълнителен шеф на софтуерна компания, която необятно употребява AI, правя оценка нейните невероятни евентуални преимущества. Но неналичието на съизмерими старания за справяне с екзистенциалните провокации, които слага, е удивителна. 

Както се споделя в нова книга, написана в съавторство от откривателя на ИИ Елиезер Юдковски: Ако някой го построи, всички умират. Това в действителност е трагично - може би прекомерно трагично. По-точно изказване би било „ в случай че някой го построи, доста евентуално е човечеството да загуби суверенитет “. Дори това би било, меко казано, невиждано. 

Отговорът е координирано интернационално контролиране. Но едно общо предизвикателство, повдигнато против сходни старания, необятно възприето в Силиконовата котловина и в този момент във Вашингтон, употребява версия на теорията на игрите: световната съгласуваност по отношение на сигурността на изкуствения разсъдък би била безполезна, тъй като всички контрактувани инспекции ще бъдат пренебрегнати от лъжливи компании. Задържането единствено на американски компании би разрешило на китайските противници да завоюват и затова методът без ограничавания е от значително значение за поддържане на софтуерното водачество на Съединени американски щати. 

Това е повърхностно размишление. Историята дава значим контрапункт. По време на Студената война Съединени американски щати и Съветският съюз бяха вкарани в несигурна конкуренция в нуклеарните оръжия. Имаше доста ниско доверие от двете страни. Въпреки това двете страни сътвориха контракти като Договора за ограничение на стратегическите оръжия, Договора за възбрана на нуклеарните опити и Договора за нуклеарните сили със междинен обхват. по какъв начин? Чрез присъединяване в десетилетия на комплицирани договаряния.

Днес не виждам доказателства за това равнище на съвестност. Това би трябвало да се промени. Нуждаем се от по-силни процеси на повторно (неофициален диалог) между водещи мислители на AI както във, по този начин и отвън световните софтуерни компании, и по-силна поддръжка на основни държавни управления. Това би могло да откри път през зараждащите рискове и да изготви контракти, които могат да лимитират рисковете. 

Има казус за това. През 50-те години на предишния век група учени признаха заплахите от нуклеарната война и образуваха конференциите в Пъгуош за просвета и международни въпроси. Започва през 1955 година с манифест на Алберт Айнщайн и Бъртран Ръсел, подписан от девет други видни учени, множеството от които са носители на Нобелова премия. По време на Студената война членовете от двете страни на Желязната завеса продължиха да се срещат – даже когато техните държавни управления бяха в задънена улица. Можем да благодарим на тяхната работа за правенето на множеството от договорите нагоре. 

AI не е ядрен; технологията е друга и производителите са най-вече компании, а не страни. Предизвикателствата при инспекцията на развиването ще бъдат комплицирани. Но договорите за нуклеарни оръжия демонстрират, че е допустимо да се ръководи геополитическа конкуренция с високи залози със противник, даже когато доверието не съществува. 

Ние просто би трябвало да приемем задачата и да стартираме упоритата работа по справяне с изискваната инспекция. Можем да вземем за пример да използваме спътници, както правехме в нуклеарната епоха, и да следим центрове за данни, които са от значително значение за образованието на най-напредналите модели на ИИ. Бихме могли също по този начин да използваме инспекции и да създадем организация, сходна на Международната организация за атомна сила, която да прави това. 

Работата по основаването на контракти за нуклеарни оръжия лиши десетилетия. Лидерите на AI през днешния ден пресмятат, че изкуственият общ разсъдък ще бъде действителност след две до 20 години, тъй че даже извън трябваше да стартираме преди години. Отне кубинската ракетна рецесия през 1962 година, с цел да даде подтик на напъните по нуклеарния контракт. Ще имаме ли потребност от неговия AI еквивалент, с цел да ни въодушеви, и ще оцелеем ли, в случай че го създадем?  

Решението не е да се откажем, а да посветим най-светлите си мозъци на обвързваните комплицирани проблеми. Трябва да изместим фокуса си от „ можем ли да се доверим един на различен? “ до „ по какъв начин можем да се проверим взаимно? “ Бъдещето на технологията, а може би и на самото човечество, зависи от това да поемем упоритата работа по основаването на проверима рамка за безвредно и устойчиво бъдеще на ИИ.

Технологията изпреварва способността на обичайните механизми на обществото да се приспособяват към провокациите, които носи. Следователно обществото се нуждае от нов институционален механизъм. отговорът? Пъгуош за цифровата епоха, наложена от основни държавни управления. Трябва да стартира през днешния ден.